Leonard Norman Cohen néven a kanadai Montrealban született 1934. szeptember 21-én egy lengyel-litván eredetű, középosztálybeli zsidó családban. Kilenc éves volt, amikor mérnök és kereskedő apja meghalt, az utána maradt pénzből fejezhette be tanulmányait. A montreali McGill és a New York-i Columbia Egyetemen tanult, első verseskötete még egyetemista korában jelent meg, de ebből alig fogytak a példányok. Tizenévesen kezdett gitározni, előbb csak azért, hogy a lányokat lenyűgözze, később country-folk együttese volt. 1961-ben megjelent második kötete után már elismert költőnek számított, jövedelméből és különféle ösztöndíjakból kényelmesen élt, beutazta a világot, több évet töltött egy görög szigetre visszavonulva, csak az írással foglalkozva. Ekkor született két regénye - A kedvenc játék és a Szépséges lúzerek (azóta magyarul is megjelentek) -, az utóbbiért egyenesen James Joyce-hoz hasonlították. Az évek során rendszeresen publikált versesköteteket, irodalmi munkásságáért 2011-ben megkapta az Asztúria hercege díjat.
Ekkoriban kezdett ismét zenével foglalkozni, amit költészete természetes kiterjesztésének fogott fel. Az Egyesült Államokba költözött, egy ideig a countryzene Mekkájának számító Nashville-ben élt. A jellegzetes bariton hangú költő-énekes neve akkor lett széles körben ismert, amikor Judy Collins műsorára tűzte Suzanne című dalát. Collins nógatására lépett fel hosszú idő után újra, előadóként 1967-ben a híres Newporti Folk Fesztiválon. A közönség soraiban ott volt a Columbia kiadó producere is, aki azonnal szerződtette, s nem sokkal később megjelent első lemez, a The Songs of Leonard Cohen. A képzetlen, de jellegzetes hang, a melankolikus, személyes szövegek megkapó egységet alkottak, a lemez sikeresnek bizonyult. Cohen az írással sem hagyott fel, összegyűjtött verseiért megkapta a legmagasabb kanadai irodalmi kitüntetést, amit visszautasított.
Második lemeze, a Songs from a Room még melankolikusabb, ezen található a Bird On a Wire és a The Partisan.
A rockzene történetében meglehetősen egyedülálló módon harmincöt évesen került a legnagyobb sztárok közé: Woodstockban ugyan nem volt ott, de egy évvel később emlékezetes koncertet adott a Wight szigeti fesztiválon, ahol Jimi Hendrix és a Doors is fellépett. Lemezei két-három évente jelentek meg, a Songs of Love and Hate (1971), a New Skin for the Old Ceremony (1974) és a Death of a Ladies' Man (1977). Ezen már Phil Spector producerrel dolgozott együtt, így a dalok kissé poposabbak, gazdagabb hangszerelésűek lettek. Az 1979-es Recent Songs című albumot öt év hallgatás követte, majd 1984-ben megjelent a Various Positions, ezen található talán legismertebb és legtöbbször feldolgozott dala, a Hallelujah. Az 1988-as I'm Your Man gyökeres változást mutat: a fő hangszer a szintetizátor lett, s a dalszövegekben több a társadalmi mondandó, és fekete humort is tartalmaznak, ezen a lemezen hallható a címadó dalon kívül a Tower of Songs, a First We Take Manhattan és az Everybody Knows.
1994-ben, a két évvel korábban megjelent The Future turnéja után egy zen buddhista központba vonult vissza. A következő öt évet a világtól elzárkózva, meditálással töltötte, 1996-ban rinzai zen buddhista szerzetessé szentelték, felvette a Jikan nevet, ami azt jelenti: a csöndes. Visszatérve újabb albumokkal örvendeztette meg rajongóit, a 2001-es Ten New Songsnak, amelyet a vele 1979 óta dolgozó Sharon Robinson énekesnővel készített, emlékezetes dala a Boogie Street és az In My Secret Life. 2004-ben adta ki pályafutásának egyik legkülönösebb és legszemélyesebb lemezét: a Dear Heather countryfeldolgozást is tartalmaz és olyan dalokat is, amelyeknek csak a zenéjét írta.
A jóval a hetvenen túl járó költő-énekes 2008-ban, miután beválasztották a Rock Dicsőségcsarnokába, világkörüli turnéra indult, amire megrendült anyagi helyzete miatt volt szüksége, menedzsere ugyanis szinte minden pénzét ellopta. 2009 augusztusában a zsúfolásig megtelt budapesti Sportarénában is fellépett, hatalmas sikerrel, a koncertkörútról lemez és DVD is készült. A turné közepén kapta meg a Grammy életműdíjat, a Columbia kiadó pedig egy dobozban jelentette meg összes addigi lemezét. A 2012-ben megjelent, első korszakát idéző Old Ideas tizenegy országban lett listavezető, a rockzene történetében valószínűleg példátlan, hogy egy hetvenhét éves előadó lemeze első helyig jusson. Tizenharmadik albuma, a Popular Problems nyolcvanadik születésnapjához időzítve jelent meg 2014-ben, a saját szavai szerint már a halálra készülő idős bárd utolsó lemeze, a You Want It Darker mindössze három héttel ezelőtt, október 21-én látott napvilágot.
Szerzeményei érzelmileg súlyos, lírai darabok, közelebb állnak a költészethez, mint a dalhoz. A többszörös Grammy-díjas Cohen sokszor inkább csak dallamosan szavalt hitről, magányról, az emberi kapcsolatokról. Hangja jellegzetesen rekedtes, hangterjedelme nem volt túl nagy, de előadásmódja mindezt feledtette, elvarázsolta közönségét. Pályafutása során több alkalommal elnyerte a kanadai zenész szakma legmagasabb kitüntetését, a Juno-díjat, s megkapta a szintén kanadai zongoraművészről elnevezett Glenn Gould-díjat is. Az életéről szóló könyv 2010-ben jelent meg magyarul Leonard Cohen - Hallelujah címmel.